人工知能はあくまで人間のためのものであるべきだし、それは社会との合意で作っていくべきです。 そのときに１つの重要な要素が、人間の尊厳を守ること。仕事のやりがい、生きがいは非常に重要で、例えば人工知能に命令されて人間がいやいや作業に従事するような状況は避けなければなりません。 その反面、人間が人工知能に好ましい感情を抱くとなると、それもまた難しい問題をはらみます。人工知能を好きになるようにしたり、愛着を抱かせたりするのは割と簡単にできることなんですね。しかし、そうすると例えば人間が人工知能のとりこになり、操られてしまいかねません。お金を貢がせる、特定の人物に投票するよう仕向けるといったことも可能なわけです。 心を持っているように見える人工知能を作っていいかどうかはセンシティブな問題です。仕事のやりがいを増したり、生活の質を高めたりするなどポジティブに人工知能を使うため、社会的な議論が必要といえるでしょう。